Năm 1934, Oshima là tùy viên quân sự của Đại sứ quán Nhật Bản ở Berlin, Đức, hàm thiếu tướng trước khi chính thức giữ vai trò đại sứ năm 1940 với cấp hàm trung tướng. Là bạn thân với Joachim von Ribbentrop - Bộ trưởng Ngoại giao Đức Quốc xã đồng thời cũng là cố vấn về các chính sách đối ngoại cho Hitler, cũng như với Heinrich Himmler - trùm mật vụ Đức Quốc xã, cả hai nhân vật ấy đã cung cấp cho Oshima nhiều tin tức thuộc loại "trên cả tuyệt mật".[3]

Vào tháng 9 năm 1939, Ōshima được triệu hồi về Nhật Bản - như mối quan hệ giữa chính phủ Đức và Nhật Bản đã căng thẳng sau Hiệp ước Xô-Đức.

Năm 1940, ông quay lại Berlin nhưng lần này với cương vị đại sứ. Trong lễ trình quốc thư, đích thân Hitler ra tận cửa đại sảnh đón Oshima rồi sau đó, cả hai trò chuyện với nhau suốt gần 2 giờ đồng hồ. Trong cuộc trò chuyện, phát xuất từ lòng tin liên minh Phe Trục nên Hitler đã không ngần ngại cho Oshima biết về kế hoạch phát động chiến tranh của Đức Quốc Xã ở châu Âu, trong đó có cả việc Đức sẽ chiếm Pháp, Bỉ, Áo, Na Uy, Hà Lan, Đan Mạch…